CanvasAgent: Enabling Complex Image Creation and Editing via Visual Tool Orchestration
CanvasAgent:通过视觉工具编排实现复杂图像创建与编辑
🧭 多模态代理 · 视觉工具编排
Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)
提出数据集 CanvasCraft 与多模态代理 CanvasAgent,通过 SFT+GRPO 训练,实现多工具协同的复杂图像编辑工作流
📌 工作参考价值(4 点)
- 电商商品图复杂编辑(多步骤生成、分割、文字叠加、增强)可借鉴多工具代理编排思路,将现有图像模型封装为工具,由 LLM 代理按需调用,实现自动化工作流。
- CanvasCraft 数据构建方式:自动合成多步编辑轨迹(生成→定位→分割→替换→融合),可迁移至构建商品图像处理指令数据集,用于训练客服或运营代理。
- SFT+GRPO 两阶段训练范式与混合奖励(结果质量+过程合理性)可用于推荐或搜索代理的多步决策优化,提升轨迹合理性与最终效果。
- 代理在 rollout 中实时检查中间图像状态并动态修正工具选择,该闭环反馈机制可启发构建商品推荐可视化解释代理,按中间反馈调整推荐策略。